ท่านได้รวบรวมศิลปวัตถุโบราณไว้จำนวนมาก และได้มีดำริที่จะจัดสร้างเป็นพิพิธภัณฑ์เพื่อให้เป็นมรดกแก่แผ่นดิน ซึ่งทางหน่วยงานราชการได้สนองเจตนารมณ์ท่านโดยการจัดสร้างพิพิธภัณฑ์สถานแห่งชาติขึ้น และเพื่อเป็นเกียรติแก่ท่านจึงได้ใช้ให้นามว่า "พิพิธภัณฑ์สถานแห่งชาติสวรรค์วรนายก" ตามพระราชทินนามสมณศักดิ์ขั้นสุดท้ายของท่าน โดยสิ่งที่ท่านรวบรวมไว้และจัดมอบให้แก่ทางพิพิธภัณฑ์ อาทิ

• พระพุทธรูปทรงเครื่องปางสมาธินาคปรก ศิลปะลพบุรี (พุทธศตวรรษที่ 18) [5]
• พระพุทธรูปปางประทานธรรม ศิลปะอู่ทอง (พุทธศตวรรษที่ 18 – 19) [6]
• พระพุทธรูปปางมารวิชัย ศิลปะสุโขทัย (พุทธศตวรรษที่ 19) [7]
• พระพุทธรูปปางประทานอภัย ศิลปะอยุธยา สกุลช่างกำแพงเพชร (พุทธศตวรรษที่ 21) [8]
• พระพุทธรูปทรงเครื่องปางมารวิชัย ศิลปะอยุธยา (พุทธศตวรรษที่ 23) [9]
• พระพุทธรูปปางมารวิชัย ศิลปะสุโขทัย (พุทธศตวรรษที่ 19 – 20) [10]